Трябва ли да се страхуваме от атака на гласовите клонинги?

" Това е значимо е да запазите гласа си за изборите през ноември ", записаното известие сподели на бъдещите гласоподаватели предишния месец, преди първичните избори на Демократическата партия в Ню Хемпшир. Звучеше доста като президента.

Но гласовете не би трябвало да се резервират и гласът не беше Джо Байдън, а евентуално безапелационен клонинг с изкуствен интелект.

Инцидентът подвигна страховете за задвижвани от изкуствен интелект аудио-фалшификации до тресчица - и технологията става все по-мощна, както научих, когато се обърнах към компания за киберсигурност по отношение на казуса.

Настроихме диалог, който протече по този начин:

" Хей, Крис, това е Рейф Пилинг от Secureworks. Връщам ви на позвъняването за евентуално изявление. Как върви? "

Казах, че върви добре.

„ Радвам се да чуя, Крис “, сподели господин Пилинг. „ Оценявам, че се свързахте. Разбирам, че се интересувате от техники за клониране на глас. Вярно ли е? “

Да, отговорих. Загрижен съм за злонамерени използва на технологията.

„ Абсолютно, Крис. Споделям загрижеността ти. Нека намерим време за изявлението “, отговори той.

Но това не беше същинският господин Пилинг. Това беше проява, направена от Secureworks на AI система, способна да ми се обади и да отговори на реакциите ми. Освен това имаше опит да имитира гласа на господин Пилинг.

Слушайте клонирания глас диалог в последния епизод на Tech Life по BBC Sounds.

Милиони позвънявания

" Аз звучи малко като пийнал австралиец, само че това беше много впечатляващо “, сподели действителният господин Пилинг, откакто демонстрацията завърши. Не беше изцяло безапелационно. Имаше паузи преди отговори, които може би крещяха " робот! " към внимателните.

Обажданията са направени благодарение на свободно налична комерсиална платформа, която твърди, че има потенциала да изпраща " милиони " телефонни позвънявания дневно, употребявайки човешки звучащи AI сътрудници.

В своя маркетинг той предлага евентуални приложения да включват центрове за позвънявания и изследвания.

Колегата на господин Пилинг, Бен Джейкъб беше употребявал технологията като образец - не тъй като компанията зад продукта е упрекната, че прави нещо неправилно. Не е. Но с цел да покаже опциите на новото потомство системи. И до момента в който нейната мощна страна беше диалогът, а не имитирането, друга система, която господин Джейкъб показва, основава достоверни копия на гласове, основани единствено на дребни фрагменти от аудио, изтеглени от YouTube.

От позиция на сигурността, господин Пилинг вижда способността на системите да разпростират бързо хиляди от тези типове всекидневен ИИ като доста, обезпокоително развиване. Гласовото клониране е черешката на тортата, споделя ми той.

В момента телефонните измамници би трябвало да наемат армии от евтина работна ръка, с цел да ръководят мини прът център, или просто да харчат самите те прекарват доста време по телефона. AI може да промени всичко това.

Ако е по този начин, това би отразявало въздействието на AI по-общо.

" Ключовото нещо, което виждаме с тези AI технологии, е способността да се усъвършенства успеваемостта и мащаба на съществуващите интервенции, " споделя той.

Дезинформация

Тъй като тази година би трябвало да се проведат огромни избори в Обединеното кралство, Съединени американски щати и Индия, има и опасения по отношение на дълбоките фалшификации на звука - името за типа комплицирани подправени гласове, които AI може да сътвори - може да се употребява за генериране на дезинформация, ориентирана към манипулиране на демократичните резултати.

Висши английски политици са били обект на аудио подправени фалшиви както и политици в други народи, в това число Словакия и Аржентина. Националният център за киберсигурност категорично предизвести за заканите, които фалшификатите на AI съставляват за идващите избори в Обединеното кралство.

Лорена Мартинез, която работи за компания, работеща за противопоставяне на онлайн дезинформацията, Logically Facts споделиха на BBC, че освен аудио фалшификатите стават все по-често срещани, само че също по този начин са по-трудни за инспекция от изображения с изкуствен интелект.

" Ако някой желае да маскира аудио deepfake, те могат и има по-малко софтуерни решения и принадлежности разполагаем на проверяващите обстоятелства “, сподели тя. фалшификатът е оголен, той постоянно към този момент е бил необятно публикуван.

Г-жа Мартинез, която е работила в Twitter за справяне с дезинформацията, твърди, че за една година, когато над половината международното население ще се насочи към урните, компаниите за обществени медии би трябвало да създадат повече и би трябвало да укрепят екипите, борещи се с дезинформацията.

Тя също прикани разработчиците на технологията за клониране на глас да „ помислете по какъв начин техните принадлежности могат да бъдат развалени “, преди да ги започват, вместо „ да реагират на злоупотребата им, което сме виждали при чат ботовете с изкуствен интелект “.

Избирателната комисия, наблюдаващият на изборите в Обединеното кралство, ми сподели, че нововъзникващите използва на AI „ провокират ясни опасения по отношение на това, на какво гласоподавателите могат и не могат да се доверят в това, което виждат, чуват и четат по време на изборите “.

Той споделя, че се е обединил с други наблюдаващи, с цел да се опита да разбере опциите и провокациите на AI.

Но Сам Джефърс, съосновател на Who Targets Me, която следи политическата реклама, твърди, че е значимо да се помни, че демократичните процеси в Обединеното кралство са много постоянни.

Той споделя, че би трябвало да се пазим и от заплахата от прекалено много цинизъм - че дълбоките подправени изображения ни карат да не имаме вяра на надеждна информация.

" Трябва да внимаваме, с цел да избегнем обстановка, в която вместо да предизвестяваме хората за заплахите от ИИ, несъзнателно караме хората да изгубят религия в неща, на които могат да се доверят, " споделя господин Джефрис.

Източник: bbc.com